추가 적립 안내

빅 데이터, 인공 지능 시대, 데이터의 노예가 아닌 주인으로 살아가는 방법!

지난 30년 동안 우리나라 IT업계의 이론과 정책을 연구하고, 기획한 장석권 한양대 경영학과 교수가 인문적 시선으로 재구성한 데이터와 인공 지능의 현재와 미래 『데이터를 철학하다』. 저자는 이 책에서 데이터 세상에서 살아가야 할 인간에게 초점을 맞춰 빅 데이터, 알고리즘, 인공 지능 안에서 살아가야 할 인간이 데이터를 주체적으로 활용할 수 있는 방법과 시나리오를 다양한 이론과 탄탄한 분석을 통해 모색한다.

1부 데이터의 탄생에서는 객관적인 데이터에 대한 신화를 깨뜨린다. 데이터는 시대에 따라 그 정의와 범위가 달라져 왔으며, 관찰자의 관점과 목적에 따라 데이터의 내용이 바뀌거나, 왜곡될 수 있다는 것이다. 2부 정보의 지도에서는 이렇게 수집된 데이터를 가치 있는 정보로 재생산해 내는 스캐닝, 모니터링, 개관, 연구 등의 다양한 방법론을 살펴보고 인공 지능이나 알고리즘이 제 역할을 하기 위해서 결국은 인간의 가치판단이 중요하다고 강조한다.

3부 지능의 미래에서는 신이 내린 인간의 선물로 불려온 지능의 실체를 탐구한다. 인간의 지능은 오랜 시간 자연에서 진화의 과정을 거쳐 탄생한 능력이며 인식, 분석, 검증, 추론, 예측, 판단과 의사결정 같은 작동 메커니즘을 갖고 있다고 이야기하면서 우리 주변에 활용되고 있는 알고리즘들도 인간의 지능 작동 메커니즘을 프로그램화한 것이라고 설명한다. 마지막 4부 지혜의 시대에서는 빅 데이터와 인공 지능 기술의 발달과 규제에 따라 펼쳐질 4가지 시나리오를 살펴본다. 이를 통해 빅 데이터 시대에 인간이 주인공으로 서기 위해서는 지금이라도 인간 중심의 데이터 담론이 탐구되고 모색되어야 한다는 깨달음을 전한다.

이 책은...
- 우리 시대 대표 IT경영학자 장석권 교수의 인문적 시선으로 바라본 빅 데이터, 인공 지능 시대의 방향과 전망
- 데이터를 정보로, 정보를 지혜로 바꾸는 통찰의 힘
- 2018 한국출판문화산업진흥원 우수출판콘텐츠사업 선정 도서

“나는 데이터의 노예가 아니라 주인으로 살고 싶다”
인문적 시선으로 재구성하는 데이터와 인공 지능의 현재와 미래

인간의 역사는 관찰의 역사다. 인류는 선사 시대부터 주위의 자연 현상, 그리고 그 속에서 함께 살아가는 동식물의 생활상을 관찰하고 기록해 왔다. 기원전 2만 년 전 라스코 동굴벽화, 수메르인의 쐐기 문자 점토판에서 연인 간에 주고받은 문자, 유튜브의 고양이 영상까지 인간이 있는 곳에 관찰이 있었고, 관찰이 있는 곳에 데이터가 있었다. 그리고 데이터의 기록자이자 주인은 인간이었다.
최근 스마트폰과 사물인터넷의 보급으로 인간은 과거 어느 때보다 강력한 데이터의 힘을 체험하고 있다. 다차원적인 정보 수집이 가능한 빅 데이터 시대에 과거에는 불가능했던 자연에 대한 세밀한 관찰과 예측이 가능해졌다. 또한 인간의 외양, 동작, 표정은 물론 심리와 감정 상태까지 파악할 수 있게 됐다. 여기에 지금까지 미지의 영역으로 남아있던 자연 현상, 사물, 인간 행동의 변화 원리까지 탐구되고 있다. 우리에게 4차 산업혁명으로 불리는 이 흐름은 인공 지능과 알고리즘으로 무장한 인간이 머지않아 신의 반열에 오를 수 있다는 낙관론을 가져왔다.

그러나 아이러니하게도 현실에서 빅 데이터와 알고리즘의 결합은 점차 인간을 소외시키고, 개개인의 일상생활을 현미경처럼 분석해 표적화하는 모습으로 나타나고 있다. 실제로 미국의 일부 주에서는 이미 빅 데이터와 알고리즘을 통해 잠재적 범죄자를 찾아내 사법 판단의 증거로 활용하고 있다. 데이터의 기록자이자 주인공인 인간이 데이터의 표적이 될 것이라는 비관론이 머리를 들고 있다.

지난 30년 동안 우리나라 IT업계의 이론과 정책을 연구하고, 기획한 장석권 한양대 경영학과 교수는 《데이터를 철학하다》에서 빅 데이터 시대에 대한 두려움을 이렇게 표현한다.

2016년 이세돌과 인공 지능 알파고의 바둑 대결에서 알파고가 승리하자 인공 지능에 대한 기대는 한순간에 공포로 바뀌었다. 자율 주행 기능이 있는 차를 시속 200킬로미터의 속도로 직접 몰고 있었는데, 차가 갑자기 내 의지와 상관없이 인공 지능 스스로 판단해 자율 운전 모드로 전환된다면 어떤 기분이 들까? - 본문 중에서

이런 우려는 지나친 기우일까? 그렇지 않다. 기업과 대학에서는 데이터의 해석을 넘어 데이터로부터 ‘실체 그 자체(인공 지능과 가상현실)’를 재구성하려는 시도가 이미 이뤄지고 있다. 사물의 외양, 특성, 반응 메커니즘을 가상화하여 현상을 모의실험(simulation)하고, 인간의 지능을 복제한 인공 지능을 다양한 영역에 특화하여 개발하기 시작했다. 이러한 도전은 사이버 물리 시스템(cyber-physical system), 인더스트리 4.0(industry4.0), 디지털 트윈(digital twin), 알파고(AlphaGo) 등의 간판을 달고 우리 곁에 이미 와 있다.

동물과 기계, 그리고 인간은 무엇이 다른가?

데이터를 모아 실체를 파악하는 것과, 데이터를 모아서 실체를 재구성하는 것은 하늘과 땅 차이만큼이나 다르다. 더욱이 그 데이터가 사물이나 현상에 대한 데이터가 아니라, 우리 인간에 관한 데이터일 때는 더욱 그러하다. 인공 지능이 대중적인 관심을 받기 전까지 우리는 인간의 정체성에 대해 진지하게 고민해 본적이 없었다. 인간의 어떠한 특성이 인간 고유의 정체성을 구성하는지 지금까지 인류가 사유하고 발견한 것들을 새삼 열거하거나 검증할 필요는 없었다. 그런데, 데이터를 모아 인간 지능을 모사한 인공 지능이 출현하자 인간 정체성을 의심하기 시작했다. - 본문 중에서

장석권 교수는 이번 책에서 빅 데이터와 인공 지능에 대한 경제적, 기술적 전망을 제시하지는 않는다. 반대로 데이터 세상에서 살아가야 할 인간에게 초점을 맞추었다. 저자는 빅 데이터, 알고리즘, 인공 지능의 틈바구니 속에 살아가야 할 인간이 데이터를 주체적으로 활용할 수 있는 방법과 시나리오를 다양한 이론과 탄탄한 분석을 통해 모색한다.

먼저 ‘1부 데이터의 탄생’에서는 ‘객관적인 데이터’에 대한 신화를 깨뜨린다. 데이터는 시대에 따라 그 정의와 범위가 달라져 왔으며, 관찰자의 관점과 목적에 따라 데이터의 내용이 바뀌거나, 왜곡될 수 있다는 것이다.

조작하지 않는 한, 데이터는 거짓말을 하지 않는다. 그러나 우리는 우리가 보고 싶어 하는 데이터를 통해 현상을 보려 하기에 그 선택과정에서 커다란 왜곡이 발생한다. 인간은 수억 년의 진화 과정에서 공정성, 형평성, 불편부당성과 같은 형이상학적 가치 이전에 생존에 유리하게 현상을 바라보는 기회주의적 기질을 체화했다. 어찌 보면 데이터를 올곧게 바라보는 것은 인간의 본성이 아닐지도 모른다. 그것은 인간 본성의 한계를 극복하려는 인간 의지의 문제다. - 본문 중에서

저자는 “데이터는 무색무취다. 그러나 우리의 마음은 무념무상이 아니다”라며 데이터를 바라보는 인간의 관점을 강조한다.

데이터는 결코 객관적 개체가 아니며, 관찰자가 주관적으로 바라보고 싶은 세상의 단면일 가능성이 크다. 데이터가 객관적 타당성을 가질 거라고 속단한다면 당신은 데이터의 노예가 될 수밖에 없다. 빅 데이터 시대에 인간은 수동적 입장에서는 이미 수집, 보관된 데이터를 접하고 그로부터 필요한 정보를 습득하면 그뿐이다. 하지만 우리 스스로가 빅 데이터 시대를 주도하고자 한다면 우리 주위에 수집, 보관되고 있는 데이터가 누가 어떠한 관점에서 수집한 것인가를 파악해야 한다. 그래야 주도적 관찰자로서의 주관을 가질 수 있고, 그 관점에서 새로운 데이터를 발굴할 수 있으며, 이를 올바른 가치관에 따라 활용할 수 있다. - 본문 중에서

‘2부 정보의 지도’에서는 이렇게 수집된 데이터를 가치 있는 정보로 재생산해 내는 다양한 방법론(스캐닝, 모니터링, 개관, 연구)을 살펴보고 데이터의 가치도 결국은 인간의 주체성에 의해 결정된다고 말한다. 데이터를 가치 있는 정보로 가공하기 위해서는 ‘내’가 누구이며, 어떤 입장에서, 무엇을 위해 데이터를 활용하려는지 관점과 목적이 분명해야 한다. 아무리 풍부한 빅 데이터도 목적성과 주체성이 결여된 상태라면 가치를 만들어 낼 수 없다. 인공 지능이나 알고리즘이 제 역할을 하려면 결국 인간의 가치판단이 중요하다.

인간은 신을, 인공 지능은 인간을 넘어설 수 있을까?

‘3부 지능의 미래’에서는 신이 내린 인간의 선물로 불려온 지능의 실체를 탐구한다. 인공 지능의 가능성이 피부로 와 닿기 전까지만 하더라도 지능은 인간의 고유한 능력이라는 믿음이 널리 퍼져 있었다. 그러나 책에 소개된 파리지옥 실험에서처럼 넓은 의미의 지능(개체의 삶 안에서 환경의 변화에 적응하고 대처하는 능력)은 인간만의 능력이 아니다.

파리지옥이 수를 셀 줄 안다고 한다. 독일의 라이너 헤드리히 교수팀은 ‘파리지옥이 감각모에 먹잇감이 닿는 횟수에 따라 잎을 닫고 소화 효소를 분비하는 등 다른 반응을 보인다’는 사실을 확인했다. 연구 팀이 실험실에서 확인한 바에 따르면, 이 과정에서 피리지옥은 최소 60까지 자극 횟수를 센다. 연구 팀이 파리지옥에 대해 다양한 실험을 한 결과 “파리지옥은 자극 횟수로 발버둥 치는 먹잇감의 크기, 영양도 등을 파악해 그에 알맞은 행동을 한다”는 결론을 내렸다. 잎을 닫고 소화 효소를 내뿜는 것은 파리지옥으로서는 매우 큰 에너지를 소모하는 일이다. 파리지옥은 벌레를 잡을 때 벌레를 잡아먹어 얻는 에너지보다 더 많은 에너지를 쓰지 않도록 자극에 대한 반응에 최적화된 듯하다. 이 연구가 우리의 흥미를 끄는 것은 파리지옥의 이러한 행위가 매우 ‘지능적’으로 보이기 때문이다. - 본문 중에서

저자는 인간의 지능은 오랜 시간 자연에서 진화의 과정을 거쳐 탄생한 능력이며 인식, 분석, 검증, 추론, 예측, 판단과 의사결정 같은 작동 메커니즘을 갖고 있다고 말한다. 우리 주변에 활용되고 있는 알고리즘들도 인간의 지능 작동 메커니즘을 프로그램화한 것이라고 설명한다.

마지막 4부 ‘지혜의 시대’는 빅 데이터와 인공 지능 기술의 발달과 규제에 따라 펼쳐질 4가지 시나리오를 소개한다. 4가지 시나리오를 간략하게 살펴보면 다음과 같다.

에이 아이, 인간이 되고픈 인공 지능 : 이 시나리오는 인공 지능의 개발이 인간의 지능과 거의 유사하게(특이점 돌파) 발달하지는 못한 상태에서 인공 지능에 대한 규제가 적용되는 경우다. 일명 ‘규제된 지능(regulated intelligence)’으로서 영화 ‘에이 아이(A.I.)’가 그린 것처럼 ‘인간이 되고픈 인공 지능’으로 상징되는 세상이다. 이 세상에서는 인공 지능이 인간 노동력의 대체가 아닌 인력 보완 또는 인력 강화 차원으로 활용된다. 따라서 기계와 인간 간의 갈등은 최소화된다.

이글 아이, 인공 지능이 감시하는 사회 : 특이점은 돌파하지 못한 상태에서 인공 지능의 위험성이나 부작용에 대한 규제는 이루어지지 않는 시나리오다. 일명 ‘방치된 지능(unregulated intelligence)’으로서 영화 〈이글 아이(Eagle Eye)〉가 묘사하는 ‘인공 지능이 감시하는 사회’에 해당한다. 인공 지능이 모든 영역에서 인간의 능력을 초월하지는 못하더라도, 인공 지능 시장 지배력을 강화하고 그로부터 이익 창출과 산업 지배력을 높이고자 글로벌 기업 간 무한 경쟁이 진행된다. 그 결과, 소비자 개개인의 행위와 생각과 의사 결정이 자신도 모르는 사이에 지배적 인공 지능에 의해 조종될 위험에 노출된다.

리미트리스, 증강 휴먼의 등장 : 이 시나리오는 뇌과학과 인공 지능이 상호 상승 결합하면서 특이점을 돌파하고, 그렇게 탄생한 초지능은 생태계의 자정 기능과 제도적 규제에 의해 그 위험과 부작용이 통제되는 경우다. 일명 ‘규제된 초지능(regulated super-intelligence)’으로서 영화 〈리미트리스(Limitless)〉와 유사하게 증강 휴먼(augmented human)이 등장한다. 이 세상에서는 인간 두뇌와 컴퓨터의 연결을 통해 인간의 한계를 극복하려는 여러 노력이 시도될 것이다.

트렌센던스, 신이 된 인공 지능 : 이 시나리오는 인공 지능을 가진 수퍼 컴퓨터가 특이점을 돌파하고, 이를 제어하거나 통제하는 법제도적 장치가 없거나 초지능에 의해 무력화된 경우다. 일명 ‘방치된 초지능(unregulated superintelligence)’으로서 영화 〈트렌센던스(Transcendence)〉가 그리는 세상이다. 이 시나리오의 초지능은 인간과 같은 자의식을 갖게 되고, 모든 능력 면에서 인간을 초월한다. 이 세상의 모습은 초지능의 자의식이 인간을 어떠한 존재로 인지하느냐에 따라 달라진다. 인공 지능의 미래에 관해 가장 초현실적이고 논쟁이 많은 시나리오다.

저자는 위의 4가지 시나리오 중 어느 한 가지라도 현실화되는 데는 넘어야 할 난관이 많다고 말한다. 그러나 데이터에 대한 정확한 이해와 가치 있는 정보를 생산하는 메커니즘, 알고리즘의 근간이 되는 지능에 대한 이해가 없다면 인간의 미래는 밝지 않다고 전망한다.
빅 데이터 시대에 인간이 주인공으로 서기 위해서는 지금이라도 인간 중심의 데이터 담론이 탐구되고 모색되어야 한다고 말한다.
우리가 원하든 원하지 않든 다가올 세상은 현실 공간의 현상, 사물, 인간이 사이버공간의 시뮬레이션, 가상 세계의 ‘또 다른 나’인 디지털 트윈과 상호 작용하는 세상이 될 것이다. 실체와 허상, 진실과 거짓, 원본과 복사본이 뒤섞여 공생하는 미래 공간에서 나를 지켜내려면 나의 주체적 관점과 목적으로 데이터를 활용할 수 있어야 한다. 그래야 데이터가 우리를 자유롭게 하는 도구가 될 것이다.

권영수(LG유플러스 부회장)
장석권 교수는 우리나라의 IT 정책과 산업 발전에 중요한 기여를 한 학자다. 그런 그가 빅 데이터와 인공지능으로 대표되는 4차 산업혁명 시대에 ‘인간이란 무엇인가’라는 묵직한 질문을 던진다. 미래에 대해 섣부른 희망이나 비관이 넘쳐 나는 지금, 우리가 누구인지 되돌아보자는 저자의 목소리에 깊이 공감한다.

정하웅(한국과학기술원 물리학과 교수)
인간과 사물을 넘어 현실과 가상, 모든 것이 연결되는 초연결사회를 어떻게 살아가야 할까? 우리 앞에 다가올 미지의 세상을 헤쳐 나가는 데 이보다 더 친절한 안내서는 없다. 내용의 깊이와 넓이 모두를 담아낸 장석권 교수의 혜안에 찬사를 보낸다.

이상욱(한양대 철학과 교수)
데이터를 모아 실체를 파악하는 것을 넘어 실체 자체를 재구성하겠다는 이 책의 대담한 구상이 참신하고 도전적이다. 데이터, 정보, 지능에 대한 담론이 넘쳐나는 이 시대에 저자는 탄탄한 사회과학적 분석과 풍부한 사례 연구를 활용하여 21세기 초연결사회의 철학적 지평을 확장한다. 매혹적이고 흥미진진하다!

머리말

1부 데이터의 탄생_ 태초에 데이터가 있었으니
1장 데이터에 대한 오해와 진실
무엇이 데이터인가 | 객관적인 데이터는 없다 | 데이터의 계층 구조와 불확정성
2장 존재하나 보이지 않고, 보여도 보이지 않는
데이터의 사각 지대 | 데이터와 예술, 그 흐릿한 경계
인간은 140만 4,000킬로미터로 달리고 있다 | 사람마다 하루의 길이가 다른 이유
3장 양치기 데이터
통계학은 거짓말을 하지 않는다 | 그러나, 통계는 거짓말을 한다
보고 싶은 대로 보이는 데이터 | 왜곡의 유혹
4장 데이터가 가치를 가지려면
실체를 규명한다는 것, 그 어려운 도전 | 빅 데이터 : 왜곡에서 자유로워지다
데이터 짝짓기 : 데이터는 모든 것을 알고 있다 | 연금술 : 개방이 가치를 생산한다

2부 정보의 지도_ 데이터가 힘이 되려면
5장 이 정보는 얼마인가요?
아는 것이 힘이다 | 승자는 불확실성을 통제하는 자
[윤식당]으로 알아보는 정보와 생산성의 상관관계 | 나비 효과
6장 정보의 지도를 그리는 법
‘나’는 어디에 서 있는가 | ‘나’는 어떤 경쟁 관계를 맺고 있는가
STEEPLEV : 숲을 보는 법 | ‘나’는 누구인가
7장 정보의 바다에서 유영하기
정보를 탐색하는 4가지 방법 | 스캐닝 : 위험 감지와 기회 포착
모니터링 : 지속적으로 관찰하기 | 개관 : 전체적으로 살펴보기 | 연구 : 아는 것을 이해하는 것
8장 정보의 가치를 높이려면
가치를 결정하는 조건 : 희소성, 비대칭성 | 가치를 지탱하는 안전망 : 믿음, 신뢰
많다고 좋은 게 아니다 | 정보에도 유통 기한이 있다

3부 지능의 미래_ 신의 영역에 도전하기
9장 신의 선물
파리지옥도 지능이 있다? | 뇌과학으로 알아보는 지능 | 대립되는 두 세계
10장 신, 인간 그리고 기계
인식 : 가장 필수적이며 가장 원초적인 | 분석 : 신을 이기는 길 | 검증 : 진짜와 가짜 구별하기
추론 : 기계는 추론할 수 있는가 | 예측 : 미래 훔쳐보기
판단과 의사 결정 : 가장 좋은 답 찾기
11장 지능과 알고리즘
신경 회로와 의미 네트워크 | 내 주위의 알고리즘 | 모사 현실
12장 신의 알고리즘
자연 선택 | 보이지 않는 손 | 집단 지성

4부 지혜의 시대_ 데이터가 지혜가 되는 순간
13장 데이터 시대, 지혜란 무엇인가
어떤 가치를 우선순위에 둘 것인가 | 신뢰와 주도권을 확보하라 | 나만의 역할을 구축하라
14장 빅 데이터를 넘어 빅 인텔리전스로
특이점 | 4가지 갈림길 | 우리의 선택
15장 호모 소포스, 현명한 기업 그리고 국가
호모 소포스 | 위대한 기업에서 현명한 기업으로
학습 사회와 모범 국가

주

데이터는 결코 객관적 개체가 아니며, 관찰자가 주관적으로 바라보고 싶은 세상의 단면일 가능성이 크다. 데이터가 객관적 타당성을 가질 거라고 속단한다면 당신은 데이터의 노예가 될 수밖에 없다. 빅 데이터 시대에 인간은 수동적 입장에서는 이미 수집, 보관된 데이터를 접하고 그로부터 필요한 정보를 습득하면 그뿐이다. 하지만 우리 스스로가 빅 데이터 시대를 주도하고자 한다면 우리 주위에 수집, 보관되고 있는 데이터가 누가 어떠한 관점에서 수집한 것인가를 파악해야 한다. 그래야 주도적 관찰자로서의 주관을 가질 수 있고, 그 관점에서 새로운 데이터를 발굴할 수 있으며, 이를 올바른 가치관에 따라 활용할 수 있다.
- 1장 데이터에 대한 오해와 진실

조작하지 않는 한, 데이터는 거짓말을 하지 않는다. 그러나 우리는 우리가 보고 싶어 하는 데이터를 통해 현상을 보려 하기에 그 선택과 정에서 커다란 왜곡이 발생한다. 인간은 수억 년의 진화 과정에서 공정성, 형평성, 불편부당성과 같은 형이상학적 가치 이전에 생존에 유리하게 현상을 바라보는 기회주의적 기질을 체화했다. 어찌 보면 데이터를 올곧게 바라보는 것은 인간의 본성이 아닐지도 모른다. 그것은 인간 본성의 한계를 극복하려는 인간 의지의 문제다.
- 3장 양치기 데이터

문재인 정부가 ‘소득 주도 성장’을 새로운 성장 모델로 내 걸면서 논쟁이 뜨겁다. 핵심은 “과연 ‘소득’이 ‘성장’의 원인이 될 수 있느냐” 하는 문제다. 소득 주도 성장이 가능하려면 순환 구조상의 승수(multiplier)가 평균적으로 1보다 커야 한다. 무동력 전기차가 불가능한 이유는 순환구조상 승수가 1을 넘을 수 없다는 에너지 보존 법칙 때문이다. 소득주도 성장의 순환 구조 역시 승수가 1을 넘을 수 없음은 분명해 보인다. 소득 증가가 모두 소비로 가지는 않고, 소비 증가가 모두 투자 증가로 가지는 않으며, 투자 증가가 모두 일자리 증가를 통한 소득 증가로 가지는 않기 때문이다. 이처럼 인과관계의 방향을 잘못 해석하거나 인과관계가 아닌 것을 인과관계로 해석하는 오류는 주위에서 자주 발견된다. 국가 경제에서 소득 수준(A)이 올라가면 여가 활동(B)이 늘어나고, 이와 함께 사교육비(C)도 늘어난다. 즉 인과관계는 A에서 B, 그리고 A에서 C로 연결된다. 그런데 현실에서 B와 C는 잘 보이고 A는 잘 보이지 않는다면 어떠한 일이 발생할까? 인과관계를 B에서 C 또는 C에서 B로 잘못 해석할 가능성이 생긴다. 우리는 B와 C의 관계를 인과관계라고 하지 않고, ‘연관관계’라고 한다.
연관관계는 인과관계와 다르다. 이를 제대로 구별하지 못하면 ‘사교육비를 늘리면 여가 활동이 늘어난다’거나, ‘여가 활동을 늘리면 사교육비가 증가한다‘는 식의 황당한 주장을 하게 된다.
- 8장 정보의 가치를 높이려면

그동안 우리는 공장에 넘쳐 나는 생산 기계, 매일 타고 나니는 자동차, 버스, 지하철, 주변에 널려 있는 각종 자판기, 집에서 쓰는 냉장고, 세탁기, 청소기, 강의실의 빔 프로젝터, 매일 들고 다니는 노트북, 스마트폰 등 수많은 기계에 둘러싸여 살면서도 그것을 존재를 깊게 인식한 적이 별로 없다. 그저 편리한 주변의 물건쯤으로 생각하고 살아왔다. 그런데 어느 날 그들이 자신들의 의사를 표시할 뿐 아니라, 더러는 내 의사에 반하는 행동을 하기 시작한다고 생각해 보자. 실체적 진실과는 상관없이 인공 지능과 각종 알고리즘에 의해 어느 날 문득 우리 주변의 모든 기계가 내게 시비를 걸기 시작할지 모른다. 간혹 내 의사에 저항하기도 하고, 더러는 나의 행동에 대해 칭찬도 서슴지 않을 것이다. 우리는 지금 인간이 만들어 낸 각종 데이터를 가지고 머신 러닝을 통해 인공 지능을 학습시켜 왔다. 그런데 상호 작용은 양방향으로 진행되는 법이다. 내가 주위에 편재하는 알고리즘과 인공 지능에 의해 거꾸로 길들어 가는 상황이 곧 다가올 것이다. 우리는 지능을 갖춘 기계가 주는 안락함에 젖어, 데워지는 물속에서 서서히 죽어가는 개구리 신세가 될 수도 있다.
- 14장 빅 데이터를 넘어 빅 인텔리전스로